NVIDIA 推出 Open Agent Safety Platform 結合 OpenShell 與 Sentry 防堵 AI 代理失控

☘️ Article

孟恭觀點

• Software：Openshell
• Hardware：Nvidia sentry
• 軟體沙盒和硬體切斷來防堵 AI agent 發病
• 還是老黃最進入狀況，整天在那哭自己產品很可怕會害人，但又一直做下去的企業家則是越看越反感
• Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.
• Artificial intelligence is extraordinary technology that will advance discovery, productivity, Security, Health, and prosperity for generations to come.
• But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility.
• This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems.
• Together, we are building the foundation of the AI economy.
• Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. nvda.ws/4hcoq7m

✍️ Abstract

三句話總結

• 推出代理安全防護平台：Nvidia 結合 軟體沙盒 OpenShell、硬體切斷機制 Nvidia Sentry 推出 Open Agent Safety Platform，提供晶片層級的持續監控，以防堵人工智慧代理失控。
• 串聯百大夥伴建立信任生態系：Nvidia 結盟 微軟、Anthropic 等超過 100 家企業，打造橫跨軟硬體的安全執行層，將此開放生態系作為發展 AI 經濟的基礎。
• 務實開發防護機制贏得市場：老黃針對 AI 潛在風險直接推出安全產品，優於僅不斷宣稱產品危險卻持續開發的其他企業家。

NVIDIA 晶片層級 Agent 安全監控平台

• 主題分類：Trustworthy AI／Cybersecurity。
• 平台、架構：Nvidia Open Agent Safety Platform，作為持續晶片層級 Agent 監控的參考 (A Reference for Continuous In-Silicon Agent Monitoring)。
• 安全機制：具備橫跨 軟體、硬體 的安全執行層 (safety enforcement layer)，以確保 AI agents 的安全。
• 合作生態系：與超過 100 家合作夥伴共同推出結合 OpenShell、Sentry 的 Nvidia Open Agent Safety Platform，包含 Absolute、Accenture、Cadence、Check Point、Crusoe、Anthropic、Citi、Baseten、Bedrock Data、Firmus、Figure、Dream、Fortanix、ExtraHop、Fortinet、Gecko、Hitachi、HPE、LangChain、Microsoft、Mistral、Netskope、RSA、SK、Siemens、Torq、Upwind、Veracode、Palantir、Vultr、Wiz、Perplexity、ServiceNow、Tenex.ai、1Password 等。

孟恭觀點分析

• 軟體方案：Software 為 OpenShell。
• 硬體方案：Hardware 為 Nvidia Sentry。
• 防堵失控：利用 軟體沙盒、硬體切斷 來防堵 AI agent (人工智慧代理) 發病。
• 孟恭評價：老黃最進入狀況，孟恭對於宣稱產品危險卻持續開發的企業家感到反感。

專有名詞

• OpenShell：NVIDIA 推出的一款軟體沙盒技術，用於安全監控與防堵人工智慧代理系統失控。
• Nvidia Sentry：NVIDIA 推出的一項硬體安全機制，用於在硬體層級切斷並防護人工智慧代理。
• AI (Artificial Intelligence)：一種讓電腦系統模擬人類智慧行為並執行複雜任務的技術。
• AI Agent (Artificial Intelligence Agent)：一種能自主感知環境並執行特定任務的人工智慧系統。
• NVIDIA Open Agent Safety Platform：NVIDIA 推出的一個結合軟硬體防護的開放式代理安全平台。
• In-Silicon Agent Monitoring：一種內建於晶片硬體層級的代理系統持續監控技術。
• Absolute：一家提供端點裝置防護與安全管理解決方案的軟體企業。
• Accenture：一家提供專業顧問與資訊科技服務的全球性企業。
• Cadence：一家提供電子設計自動化軟體與工程服務的科技企業。
• Check Point：一家專注於網路安全與防火牆解決方案的跨國企業。
• Crusoe：一家專注於運用閒置能源進行高效能運算的科技企業。
• Anthropic：一家專注於開發大型語言模型與人工智慧安全技術的科技企業。
• Citi：一家提供全球性投資銀行與金融服務的跨國機構。
• Baseten：一家提供機器學習模型部署基礎設施的新創企業。
• Bedrock Data：一家提供雲端資料同步與整合服務的科技企業。
• Firmus：一家提供人工智慧資料中心基礎設施解決方案的科技企業。
• Figure：一家專注於開發通用型人形機器人的科技企業。
• Fortanix：一家提供資料加密與機密運算解決方案的資安企業。
• ExtraHop：一家提供網路層級威脅偵測與回應服務的資安企業。
• Fortinet：一家提供網路安全解決方案與設備的跨國企業。
• Gecko (Gecko Robotics)：一家專注於工業基礎設施巡檢與機器人技術的科技企業。
• Hitachi：一家業務涵蓋資訊科技、工業與能源系統的跨國集團企業。
• HPE (Hewlett Packard Enterprise)：一家提供企業級雲端運算與資料中心基礎設施的科技企業。
• LangChain：一個用於開發由大型語言模型驅動之應用程式的開源軟體框架。
• Microsoft：一家提供各種作業系統、雲端服務與生產力軟體的跨國科技企業。
• Mistral (Mistral AI)：一家專注於開發開源大型語言模型的法國人工智慧企業。
• Netskope：一家提供雲端安全與資料保護解決方案的資安企業。
• RSAC (RSA Conference)：一個專注於全球資訊安全議題的會議機構。
• Siemens：一家總部位於德國的跨國工業製造與科技集團企業。
• Torq：一家提供無程式碼資安自動化與回應平台的科技企業。
• Upwind：一家提供雲端原生應用程式防護解決方案的資安企業。
• Veracode：一家提供應用程式安全測試與風險管理的軟體企業。
• Palantir：一家專注於大數據分析與情報系統開發的軟體企業。
• Vultr：一家提供雲端伺服器與高效能運算資源的服務供應商。
• Wiz：一家專注於雲端基礎設施安全掃描與管理的資安新創企業。
• Zscaler：一家提供雲端原生安全與零信任架構解決方案的跨國企業。
• Perplexity：一家提供人工智慧驅動之搜尋引擎對答服務的科技企業。
• ServiceNow：一家提供企業數位工作流程管理平台的軟體企業。
• Tenex.ai：一家專注於企業級人工智慧解決方案的科技企業。
• 1Password：一家提供密碼管理與數位身分保護服務的軟體品牌。